Tên gọi

Tên gọi của huyện xuất phát từ địa danh Kon Braih ("làng cát"), vốn là một làng cổ của người Xơđăng nằm trên địa phận xã Đắk Ruồng, huyện Kon Rẫy ngày nay. Địa điểm này toạ lạc cạnh bờ sông Đắk Bla, đối diện với trung tâm hành chính mới của huyện Kon Rẫy thuộc xã Tân Lập.

Địa bàn huyện Kon Rẫy trước đây là một phần huyện Kon Plông.

Ngày 31 tháng 1 năm 2002, Chính phủ ban hành Nghị định 14/2002/NĐ-CP[1]. Theo đó:

• Tách thị trấn Kon Plông và 5 xã: Đăk Kôi, Đăk Pne, Đăk Ruồng, Đăk Tờ Re, Tân Lập thuộc huyện Kon Plông để thành lập huyện Kon Rẫy
• Đổi tên thị trấn Kon Plông thành thị trấn Đăk Rve.

Khi mới thành lập, huyện Kon Rẫy có 6 đơn vị hành chính trực thuộc, gồm thị trấn Đăk Rve và 5 xã: Đăk Kôi, Đăk Pne, Đăk Ruồng, Đăk Tờ Re, Tân Lập.

Huyện lỵ của huyện ban đầu đặt tại thị trấn Đăk Rve. Tuy nhiên, đến năm 2005, huyện lỵ được dời về khu vực Đăk Ruồng - Tân Lập.[3]

Ngày 8 tháng 1 năm 2004, thành lập xã Đắk Tơ Lung trên cơ sở 12.420 ha diện tích tự nhiên và 3.250 người của xã Đắk Ruồng.[4]

Huyện Kon Rẫy có 1 thị trấn và 6 xã như hiện nay.